گروهی از دانشمندان ممنوع‌شدن توسعه‌ی سلاح‌های مرگ‌بارِ مجهز به هوش مصنوعی را خواستار  شده‌اند. دانشمندان می‌گویند با وجود سلاح‌های کشنده‌ی خودمختار (LAWS) کشتارهای ناخواسته همچون باگ‌های نرم‌افزاری به امری اجتناب‌ناپذیر تبدیل می‌شوند.

پژوهشگران حوزه‌ی اخلاق نیز استدلال می‌کنند اینکه سیستم‌های هوش مصنوعی روزی بتوانند بدون دخالت انسان به کشتار انسان‌ها دست بزنند، عبور از خط قرمزهای اخلاقی است. دانشمندان این اظهارات را در جریان نشست اخیر انجمن پیشبرد علوم آمریکا در واشنگتن دی‌سی ابراز کرده‌اند.

دیدبان حقوق بشر یکی از ۸۹ سازمان غیردولتی از ۵۰ کشور جهان است که کارزاری برای متوقف‌کردن ربات‌های قاتل تشکیل داده‌اند تا مقدمات لازم برای انعقاد معاهده‌ای بین‌المللی در این زمینه را فراهم کنند. مری ورهام، یکی از مقام‌های ارشد دیدبان حقوق بشر، در میان کسانی است که تلاش‌های زیادی برای ممنوع‌شدن این دست سلاح‌های کشنده کرده است. او به BBC News گفت:

بحث ما ربات‌های ترمیناتوری نیست که راه می‌رود و حرف می‌زنند و درنهایت، روزی همه‌ی جهان را تصاحب می‌کنند؛ بلکه آنچه نگرانش هستیم خطری زودهنگام‌تر، یعنی سلاح‌های متداول با قابلیت‌های خودمختاری است. این دست ربات‌ها آهسته‌ وارد میدان‌های نبرد می‌شوند. هواپیمای بدون‌سرنشین نمونه‌ای واضح است؛ اما هواپیماهای نظامی نیز هستند که خودشان به‌تنهایی بدون دخالت انسانی از زمین بلند می‌شوند و پرواز می‌کنند و فرود می‌آیند. ربات‌های نگهبان هم هستند که می‌توانند حرکات را شناسایی کنند. این‌ها پیش‌گامان سلاح‌های خودمختار محسوب می‌شود.

رایان گریپی، مدیر ارشد تکنولوژی شرکت Clearpath Rbotics، از پیشنهاد ممنوع‌شدن سلاح‌های مجهز به هوش مصنوعی حمایت می‌کند. این درحالی‌ است که شرکت او قراردادهای نظامی را می‌پذیرد؛ اما به‌کارگیری سیستم‌های هوش مصنوعی در جنگ را محکوم و اعلام کرده چنین سیستم‌هایی را توسعه نخواهند داد. او به BBC News گفت:

وقتی این سیستم‌ها دچار نقص فنی شوند، به طریق پیش‌بینی‌ناپذیری به مشکل برمی‌خورند. سیستم‌های خودمختار نمی‌توانند به‌خودی‌خود تصمیم به کشتن یا نابودی بگیرند؛ بلکه تصمیمات مربوط‌به انهدام یا کشتار در عمل هزاران کیلومتر دورتر به‌وسیله‌ی توسعه‌دهندگان و برنامه‌نویسان و دانشمندانی گرفته می‌شوند که هیچ تصوری از وضعیتی ندارند که سلاح در آن مستقر است.

به‌گفته پیتر اسارو، پژوهشگری از دانشگاه نیو اسکول در نیویورک، چنین سناریویی پیامدهای اخلاقی و قانونی گسترده‌ای برای جامعه‌ی جهانی در پی‌ خواهد داشت.

او گفت:

دادن اختیار قتل به ماشین توجیه‌پذیر نیست و نقض حقوق بشر است؛ چراکه ماشین‌ها صلاحیت اخلاقی ندارند و نمی‌توانند مسئولیت تصمیمات مربوط‌به زندگی و مرگ را برعهده بگیرند. بنابراین، ممکن است افرادی مسئول آن باشند که این سلاح‌های خودمختار را ساخته‌اند.